查看原文
其他

赵毅宇|检察监督智能化的发展隐忧及应对逻辑




点击蓝字关注本公众号,欢迎分享本文




检察监督智能化的发展隐忧及应对逻辑


作者:赵毅宇,中国人民大学法学院讲师、中国人民大学未来法治研究院研究人员。

来源:《法制与社会发展》2023年第2期(第178-第194页)。(责任编辑:乔楠)

摘 要

 

在智能化浪潮下,检察监督正发生着由案件监督向数据监督转变、事后监督向全程监督转变、人力监督向算法监督转变的内嵌式变革,其中也存在着诸多发展隐忧,具体表现为数据共享的实现困境、全程监督的潜在危机与算法运用的公正遮蔽。执法司法数据共享是检察监督智能化的前提,需要从数据共享规则设计、数据共享平台建设、数据共享实施保障等方面进行机制建构。检察监督智能化应采取以行政违法行为的智能化线索挖掘、立案侦查和刑罚执行的智能化审查、司法裁判的智能化类案监督为主要应用场景的“场景式监督”,并通过算法歧视的防范与修正、算法公开与解释、全过程的算法参与、算法责任追究等方式展开技术正当程序规制。


关键词:检察监督;智能化;数据共享;算法;技术正当程序



引 言


习近平总书记在党的二十大报告中强调,“加强检察机关法律监督工作”。检察机关作为专门的法律监督机关,在法治中国建设中,发挥着保障国家法律统一正确实施的重要职能。检察监督,又称检察机关法律监督,其内涵和外延长期存在争论。但在党的十八大以后,“泛法律监督主义”已无法自圆其说,其认为检察机关全部法律职能均是法律监督。然而,检察机关的诉讼职能与监督职能已发生明显分离。诉讼职能是指检察机关代表国家和社会提起公诉。监督职能是指检察机关以保障法律统一正确实施为目的,对于部分国家机关违反法律的行为进行监督的特定检察活动,包括执法监督与司法监督两类。本文关于检察监督的研究仅围绕监督职能展开。


随着互联网、大数据、人工智能的飞速融合发展,人类逐步进入智能互联网时代,形成算法主导—数字生态、人机共处—智慧互动、双层空间—虚实同构的时代特征。智能互联网时代的背后是一个社会整体上的智能化运动,包括检察监督在内的法律活动也必须紧随社会的智能化浪潮。2021年,《中共中央关于加强新时代检察机关法律监督工作的意见》明确提出“加强检察机关信息化、智能化建设”的工作部署。从2022年“全国检察机关数字检察工作会议”总结的实践现状看,检察监督实现了网络纵向贯通、应用横向联通,但在网络、平台、数据、应用、模型等方面距离“大融合”还有不小差距。然而,现有的大多数研究仍驻足于探讨检察监督智能化的正当性、必要性以及发展趋势,或者聚焦于推荐各地检察院的创新性实践,忽视了智能化在检察监督中承担重要使命的同时也面临诸多挑战,未理性审视智能化的应用空间与适用规则。因此,本文将以阐释检察监督与智能化这一外部环境之间结构耦合关系的系统论视角,既在积极的立场上总结检察监督智能化的发展趋势,也从智能化对检察监督的影响中觉察发展隐忧,根据适用前提、应用场景、技术规制的逻辑进路探寻系统性的解决对策,从而使检察监督智能化真正成为以“科技制约权力”的新型利器。



一、检察监督智能化的机理与隐忧


聚焦于人工智能议题,人们通常更为关注人工智能的应用对私权保护所可能产生的影响,而较少讨论其对权力监督所带来的重塑效应。智能化所带来的,已不再是过去那种外在技术装备的更新换代,而是对检察监督运行的内嵌式变革。受到智能化的影响,监督学/监控学(Surveillance Studies)包含规训社会(Disciplinary Society)理论与控制社会(Society of Control)理论两种监督理论的理想类型。本文试图以规训社会理论与控制社会理论基本特征的对比作为分析框架,探寻检察监督智能化的演进机理,继而在对控制社会的担忧中,反思检察监督智能化的发展隐忧。


(一)智能化影响下的监督理论嬗变


福柯是规训社会理论的提出者。规训社会出现的标志是作为王权武器的酷刑不再属于支配人体的普遍方式,纪律/规训成为一般的支配方式。规训权力的成功归因于使用层级监视、规范化裁决以及二者在该权力特有的检查程序中的组合。为了进一步提升规训的效率,一个有效的方式是将层级监视转变为“全景敞式主义”。在全景敞视监狱中,犯人无法知晓监狱中的瞭望塔里监视者的目光何时会投向自己,原本来自外部的监视就转换成了犯人的自我监视。“全景敞式主义”可以适用于家庭、工厂、学校、医院等机构,在不同的空间建构思想和行为的准则,每个人都在不同的封闭环境中转移,并接受权力的规训。


德勒兹极具预见性地将由自动决策算法和数据组成的社会定义为控制社会,旨在强调福柯提出的规训社会向数字技术辅助下新的社会权力结构的转变。德勒兹指出,控制社会有以下基本特征:一是不一定要从一个封闭的系统转移到另一个系统,这些系统是交叉的;二是强调信息和通信技术,允许信息实时交互;三是将个体数字化,进而转变为分体。以哈格蒂与埃里克森为代表的学者发展了德勒兹的理论,认为监督被去域化并零散存在于整个社会中,权力是被分割与四散的,这种模式的最终目标是把曾经分而治之状态下的系统融合在一起,通过数据共享形成巨大的网络,网络技术和数据量正推动这种监督的发展。


通过梳理福柯、德勒兹等学者的相关著作,我们可以从三个维度的对比中,凝练出从规训社会理论到控制社会理论的嬗变规律。一是对象维度,规训社会的监督对象是个体,即通过规训将人们塑造成为规范的人。控制社会关注分体,人们生活的方方面面都被转化为特征、身份、数据等,监督的对象是个体行为留下的痕迹。二是空间维度,规训社会将社会空间分成多个封闭的亚空间,人们总是进入一个又一个“自我封闭”的控制系统,每个系统都有其独特的纪律、逻辑与话语结构。控制社会的运作空间是开放和流动的,在空间边界被打破后,其融合成为一个无边的网络。三是技术维度,规训社会所使用的就是监视和训练等规训技术,国家只需要在个体违反规则时介入。在控制社会,控制是基于算法和数据实现的,意图在于事件预测,其手段主要为每时每刻的实际监督。


(二)检察监督智能化演进的三重维度


从规训社会理论到控制社会理论,监督方式在对象、空间、技术维度上呈现的革命性转变,为我们充分认识检察监督智能化的演进机理提供了分析框架。


在对象维度上,检察监督由案件监督向数据监督转变。在规训社会理论下,检察机关是一个办案机关,通过检察监督执法司法案件是否统一正确适用法律来监督执法司法者。检察人员在面对大量执法司法案件时往往无能为力,通常只能进行由当事人举报申诉并提供线索的被动监督。而根据控制社会理论,检察监督的对象是数据,对数据的监测与评价便能反映对执法司法行为的监督。目前,大部分执法司法场景已经实现在线化运行,执法司法案件被转化为可被采集、传输、存储和处理的海量数据,这些数据在经过全要素的模块化、可视化构建后,形成了行政执法数据库、裁判文书数据库、庭审数据库、电子卷宗库等多类型数据库。例如,山东省检察机关的“检度”智能平台,整合了人民检察院案件信息公开网、中国裁判文书网等外部信息和内网及各应用系统等内部信息。


在空间维度上,检察监督由事后监督向全程监督转变。规训社会理论下的检察监督空间具有封闭性,检察机关往往通过事后监督对执法司法者进行规制,无法实现时刻在场监督。在控制社会理论中,原来的物理空间逐渐被虚拟空间击碎,时间和空间已呈现吉登斯所称的“脱域”,并获得重构。控制社会不再禁锢运作,而是通过持续的控制和及时的信息传播来运转。在实践中,检察人员不用在特定的时间进入监狱、法庭等实体场域,可以通过移动设备、社交网络、数据处理、传感器等创建与实体场域相联系的监督场景,实时传递语音、文字或图像信息,进行全程临场式的监督。这就使检察监督活动的空间实体性逐步丧失。


在技术维度上,检察监督由人力监督向算法监督转变。规训社会理论下的检察监督需要依靠大量的检察人员,他们是促成法律规则转化为社会秩序的行动者。而在控制社会理论中,算法扮演着重要角色。一是检察监督规则代码化。人工智能技术可以将检察监督规则转换成能够自动运行的程序代码,按照规定的方式将检察监督过程精确拆解。二是检察监督决策算法化。知识图谱技术、标签技术、结构化数据库的构建与深度算法的应用,可以为证据审查、法律依据审查、裁量结果审查等提供支持。譬如算法可将单一案件的裁量结果与所有相关联案件的裁量结果进行比对,即通过对既有案例的机器学习,为检察机关作出决策提供更加精准的参考。


当检察监督智能化呈现出数据监督、全程监督、算法监督等特征后,需要进一步澄清的问题是检察监督智能化与监察监督的权力边界,以此论证检察监督智能化的独立性。许多学者认为,检察监督与监察监督存在差异:一是在对象上,检察监督着眼于执法司法行为是否合法,是一种对事监督权;而监察监督关注公职人员的政治品行、行使公权力和道德操守情况,是一种对人监督权。二是在方式上,检察监督方式包括检察建议、抗诉和提起公益诉讼等,属于程序性监督权;而监察监督方式为监督、调查与处置,属于兼具实体性和程序性的监督权。三是在阶段上,检察监督以事后监督为原则,为事后监督权;而监察监督是强调提前介入重要性的全阶段监督,为全程监督权。因而有质疑者会提出,检察监督智能化的事先预测、全程监督等特征,会模糊其与监察监督的权力边界。但两种监督权在监督阶段的区别仅为形式差异,监督对象与监督方式的区别才是实质差异,智能化无法改变这些实质差异。只要实质差异存在,检察监督与监察监督就仍属于两种不同的监督权。检察机关应将职能集中于执法司法监督,检察监督智能化不能脱离对事监督权与程序性监督权的属性。


(三)检察监督智能化的发展隐忧


德勒兹认为,“统治社会对应的是简单或力学的机器,规训社会对应的是高能的机器;控制社会对应的是控制学或电脑……面对出现在开放环境中的那些不间断的控制形式,可能最严酷的禁锢对我们来说仿佛是美妙的回忆”。显然,德勒兹对于控制社会的到来忧心忡忡。从对象、空间与技术三个维度看,检察监督智能化存在以下发展隐忧。


第一是数据共享的实现困境。执法司法机关之间的数据共享是检察监督智能化的前提条件,但目前很多执法司法数据难以被全面化、动态化地共享。一是部门主义倾向导致的信息孤岛。笔者在调研访谈中发现,部分执法司法机关缺乏大数据思维,常以信息涉密为由,拒绝共享自己所掌握的数据。即使在执法司法部门愿意共享数据的情况下,数据共享也常因各自数据中心的数据标准不一而难以有效进行。二是数据特征产生的共享障碍。执法司法大数据具有通用大数据的“4V特征”,即规模海量、数据流转快速、数据类型多样、数据价值巨大,对其分析处理的难度较大,且我国对执法司法数据共享的要求、场景和条件均未形成具体的法律规范和标准。执法司法数据的完整性缺失、结构化不足,以及在整理、传输数据时出现的纰漏,都将影响数据共享后检察监督智能化决策结果的准确性。三是数据安全隐患带来的共享疑虑。执法司法机关和进行技术研发的商业组织在数据共享过程中都有能力控制并利用个人信息,这会带来个人信息滥用的风险。


第二是全程监督的潜在危机。智能化可以增强检察监督的能力与效率,但也潜伏着滑向“数字利维坦”的新型危机。一是逾越司法机关分工界限的职能危机。公安机关、检察机关、审判机关、司法行政机关应各司其职、相互配合、相互制约。而在智能化趋势下,检察监督的物理空间被打破,若全程临场式的检察监督无针对性、无边界感地全面铺开,将导致检察机关的监督职能与其他机关的侦查职能、执行职能等交叉或重复。一个典型的例证是,部分检察机关建立监所监控视频智能分析系统,对群体聚集打架、禁闭人员进出等事件进行监督,这与刑罚执行机关的智能化措施重叠。二是监督者对智能化高度依赖所导致的主体性危机。人工智能的进步带来了治理困境,其深层原因是人的主体性危机。全程监督意味着智能化运用的广泛性,检察人员久而久之形成的对技术的过分依赖,会有损其创造性、判断力及其威权,使检察监督陷入僵化的泥潭。特别是,以毫无节制的智能化方式改造检察监督空间,这会动摇检察官的地位,甚至造成检察权的全面解构。三是大数据预测下被监督者面临的行为危机。检察机关可大量运用大数据来预测执法司法者的潜在行为,即判断哪些执法司法机关将来更有可能出错,从而对其进行更严密的监控。在全程监督下,这种基于未来可能行为之上的“惩罚”,将会禁锢执法司法者的自由裁量和个体特征,使其没有任何喘息的机会,被迫沦为数字技术的受害者。


第三是算法运用的公正遮蔽。算法决策的依据是通过数据、算法、建模构建的“计算正义”,而非人本层面的正义。工具理性的过分扩张会带来人类价值理性的急剧萎缩,检察监督算法也难逃公正遮蔽的问题,久而久之,将会陷入“想控制却难以控制”的科林格里奇困境。一是算法的中立性局限。检察监督智能化中的算法偏见在所难免:一方面是外部偏见,执法司法数据存在着人类社会固有的隐性偏见;另一方面是内部偏见,算法主体的价值偏好、学术判断等将融入算法设计与运用之中。当检察人员对于算法含有偏见的结果不经审查便作出决策时,算法歧视随之产生。二是算法的公开性缺陷。将算法视为黑箱的现象,并未因为检察监督算法由检察机关主导研发而得以避免。算法黑箱使执法司法机关难以知晓检察监督智能化在具体场景中发挥多大的作用,以及如何作出监督决策,这直接侵害了被监督者的知情权,也无法测试算法的准确性,加剧了执法司法机关对检察机关的不信任。三是算法的参与性缺陷。具有瞬时性、动态性与自动化等特征的检察监督算法决策,借由程序环节的压缩和封闭侵蚀了传统正当程序中的“听取意见”“告知”“说明理由”等参与性规则。四是算法的责任性缺陷。智能化加剧了司法官“不负责”的倾向,也加深了卸责行为的组织化程度。检察人员可以通过算法决策向其他主体或机器转嫁压力、风险和责任。


二、执法司法数据共享机制的前提性建构


执法司法数据共享是检察监督智能化的前提,离开了大数据的智能化只能为检察监督提供一些辅助的、机械化的数理统计功能,无法改变传统的运行方式和结构。尽管《中共中央关于全面推进依法治国若干重大问题的决定》明确提出建立行政执法机关、公安机关、检察机关、审判机关信息共享制度,但在实践中,信息孤岛、数据缺失、数据偏差等困境依然存在。在关于跨部门信息共享的研究中,早期比较有影响的学者是道斯,他通过构建“政策—技术—组织”的理论框架来分析跨部门信息共享的益处与障碍。此后,有较多学者对跨部门数据共享的障碍进行研究,提及较多的因素有:技术不兼容,部门利益冲突,数据结构不一致,法律法规等制度性保障不完善等。在此基础上,我国执法司法数据共享机制的建构可以从规则设计、平台建设与实施保障三个维度展开。


(一)数据共享的规则设计


我国政务数据共享的规范化程度较高,国务院针对政务数据共享制定了统一性规则,如《促进大数据发展行动纲要》《政务信息资源共享管理暂行办法》《政务信息系统整合共享实施方案》等文件。根据《政务信息资源共享管理暂行办法》第2条的规定,政务部门是指政府部门及法律法规授权具有行政职能的事业单位和社会组织。而法院、检察院等执法司法部门不属于政务部门,其在履行职责中制作或获取的数据无法被政务数据共享规则调整。在执法司法领域,虽然最高人民法院、公安部等通过联合发文的形式,在道路交通信息、信用信息、执行信息等方面建立了数据共享规则,一些地方检察机关也探索过“连线查询”“数据网闸”“数据摆渡”等简单的数据共享方式,但这些规则与方式存在共享主体少、内容碎片化、智能程度低等局限,难以满足检察监督智能化对数据共享的需求。为此,应建立统一性的执法司法数据共享规则。


在实施路径上,具体可以采取“两步走”的方式。第一步是在政法委员会的指导与协调下,各执法司法机关通过数据交换协议或联合发文的方式建立数据共享规则,先行先试,为下一步的实施奠定良好的基础与环境。对此,最高人民检察院印发的《智慧检务工程建设指导方案(2018—2020年)》指出,建立与公安机关、审判机关、司法行政机关等部门的数据交换协议、格式,推进与其他部门间的数据资源共享。第二步是由中共中央制定统一性的执法司法数据共享规则。下述法律和中央政策可提供依据与基本要求:在目的上,《中华人民共和国数据安全法》(以下简称《数据安全法》)规定,建立集中统一、高效权威的信息共享机制;在方式上,《中共中央 国务院关于构建数据基础制度更好发挥数据要素作用的意见》指出,加强汇聚共享公共数据,强化统筹授权使用和管理;在技术上,《中共中央关于加强新时代检察机关法律监督工作的意见》提出,运用大数据、区块链等技术推进公安机关、检察机关、审判机关、司法行政机关等跨部门大数据共享。


执法司法数据共享规则内容设计的理论依据是执法司法数据的独特性。与政务大数据相比,执法司法大数据更具备从属于法律领域的特征:一是适配性,执法司法具有地域与类型差异,数据适合性更为重要;二是正确性,执法司法的容错率相当有限,对数据的实质正确性要求较高;三是易变性,执法司法情境一经调整,原有数据将失去挖掘价值;四是系统性,执法司法中各程序环环相扣,其产生的数据也能相互连接,可形成统一的数据标准;五是保密性,执法司法数据的敏感性和隐私性更强,需要分级分类确权授权,并强化安全保障。基于上述独特性,执法司法数据共享规则应包括以下内容。


第一是数据共享的基本原则。一是范围适度,分类共享。共享数据的范围必须与数据应用场景高度契合,遵循适度原则。执法司法数据可分为无条件共享、有条件共享、不予共享三种类型。经脱密处理的基础数据,必须接入共享平台,供执法司法部门无条件使用。对于有条件共享类的数据,提供部门应明确使用条件。对于不予共享类的数据,提供部门应出具规范性依据,如《数据安全法》第38条规定,在履行职责中知悉的个人隐私、个人信息、商业秘密、保密商务信息等数据应当依法予以保密。二是统一标准,平台交换。执法司法部门按照国家及行业相关标准进行执法司法数据的编目、采集、存储,基于共享平台开展数据共享。三是建立机制,保障安全。执法司法部门应建立健全数据共享管理机制,加强对数据共享全过程的身份鉴别、授权管理和安全保障。


第二是数据目录编制与管理规则。编制数据目录是实现数据共享的基础,也是执法司法机关数据共享的依据。数据目录的核心元数据包括分类、名称、提供部门、格式、信息项、更新周期、共享类型、共享条件、共享范围、共享方式、来源系统、安全分级等。各执法司法机关可以根据最高人民检察院制定的“检察监督数据目录编制指南”的要求编制、维护本部门的数据目录,确保数据目录准确完整。数据目录一经发布,除法律法规作出修订、信息系统改造等原因外不得随意更改。


第三是数据提供与使用规则。各执法司法部门通过共享平台与其他部门共享数据,共享平台不能独立于执法司法部门现有的信息化基础设施,应由各部门共同建设。对于各类执法司法数据的保密等级不一致的问题,可以通过修法及法律解释来调整保密等级,也可从技术上设立沟通不同保密要求的共享平台。在数据提供层面,以“谁主管,谁提供”为原则。提供部门应及时维护和更新信息,保障数据的完整性、准确性、时效性与可用性。在数据使用层面,以“谁使用,谁管理”为原则。聚焦于检察机关对执法司法大数据的使用,亟待形成以下规则:一是检察机关应在其履行法定职责的范围内,依照法律法规规定的条件和程序使用数据;二是检察机关在推进智能化监督时,需要对执法司法数据进行甄别、核实,甚至进一步调查;三是检察机关不得篡改、增加、删除、修改原始的执法司法数据;四是检察机关应加强数据使用的全过程管理,建立数据权限管理和数据安全风险信息获取、分析、研判和预警机制,落实数据安全保护责任,保障数据安全。


(二)数据共享的平台建设


全面建设执法司法数据共享平台是破除“信息孤岛”的有效手段。2017年,最高人民检察院印发的《检察大数据行动指南(2017—2020年)》要求建设国家检察大数据中心和省级分中心,但这一数据平台仅是检察机关的内部平台,未真正解决外部数据资源的共享问题。在实践中,浙江省检察机关链接了浙江省大数据局公共数据平台与浙江省政法云数据中心;天津政法系统跨部门网上办案平台实现了市检察院与市高级法院、市监狱管理局减刑假释办案系统之间的数据共享;湖北省检察院通过建立数据共享机制获取了行政执法单位与公安机关的行政处罚数据。从总体上看,这些地方实践的共享范围与程度仍然有限,执法司法部门应进一步加强执法司法数据共享平台的构建。


执法司法数据共享平台的主要功能是自动收集和处理数据,应具备以下能力:一是数据全面汇聚,数据类型包括案件、文书、音频、视频等结构化、半结构化、非结构化的数据,数据来源涵盖行政执法、公安、检察、法院、司法行政、网络舆情等内外部数据资源,而且,数据应进行同步更新。其中,涉及的数据采集方法主要包括传感器采集、日志文件采集、网络爬虫采集等。二是数据预处理,即执法司法数据共享平台对原始数据进行数据集成、数据清理、数据转换、冗余消除等,以提升执法司法大数据的质量。三是数据分析处理,包括对已知数据的描述性分析、预测未来趋势的预测性分析,以及制定决策与提高分析效率的规则性分析。四是数据共享管理,执法司法数据共享平台对数据的采集、存储、处理、归档和销毁进行全流程节点监控,提供数据异常预警,防止出现恶意删除、篡改、泄露数据的情况。


(三)数据共享的实施保障


其一,加强党对数据共享的领导。根据我国学者的阐释,中国已形成了较为独特的“执政党主导的国家治理模式”,该模式具有“举国体制”的动员力与高效率。正是基于我国政治体制的这一特点,中央党政部门发布统一的标准和规定,自上而下地推行执法司法数据共享,这将使检察监督智能化的落实具有可行性。具体行动包括以下内容:第一,党的政法委员会所建立的职能明确的数据治理委员会,负责管理执法司法数据共享工作,统筹规划、协调推进数据共享的重大事项;第二,检察机关成立执法司法数据共享机制专家咨询机构,组织不同领域的专家解决数据共享中的疑难问题;第三,检察机关应在党委统一领导下,积极争取执法司法部门对数据共享工作的支持,将数据共享相关工作经费纳入部门财政预算。


其二,建立数据共享安全保障机制。数据安全保障主要涉及数据的隐私性与不可篡改性。2022年,《中共中央 国务院关于构建数据基础制度更好发挥数据要素作用的意见》对公共数据提出了“数据可用不可见”的要求。隐私计算技术可以实现数据处于加密状态或非透明状态下的计算,实现数据的“可算不可见”,从而使参与方达到隐私保护和个人信息保护的目的。区块链技术将数据通过块链式结构来验证与存储,利用共识算法来生成和更新,依靠加密算法保证传输和访问的安全,利用智能合约来编程和操作,以此保障数据不被篡改。山西省通过搭建省级公检法司的联盟链来解决共享难、信任难与协同难的问题。


其三,建立数据共享的监督评价机制。中央政法委员会、国家互联网信息办公室等部门组织编制执法司法数据共享工作评价办法,每年会同相关部门对各执法司法部门共享数据的情况进行评估,并公布评估报告和改进意见。对于未按要求编制或更新数据资源目录,未向共享平台及时提供共享信息,向共享平台提供的数据和本部门所掌握信息不一致,未及时更新数据或提供的数据不符合有关规范、无法使用,将共享信息用于履行部门职责需要以外的行为,均应进行相应整改。


三、检察监督智能化应用场景的多维构面


通过数据汇集、数据挖掘、分析研判、线索初查、线索确认、开展监督等从数据到监督的闭环运转,检察机关可摆脱地域性和空间性的约束,实现检察监督智能化的全覆盖。但全程临场式检察监督产生的司法机关分工界限淡化、监督者对智能化的依赖、禁锢执法司法者的自由裁量和个体特征等隐忧值得我们高度警惕,以防检察监督走向“数字利维坦”的深渊。因此,我们需要对检察监督智能化应用场景的构造有一个全面系统的解构,并使其构面具象化,识别其内容构成与范畴边界,据此形成检察监督业务和智能技术深度融合的“场景式监督”。


(一)行政违法行为的智能化线索挖掘


行政检察监督是指我国检察机关监督各方主体在实施公共行政行为时是否严格遵守宪法法律的特定检察活动。它不包括行政诉讼监督,也不涉及行政机关制定规范性文件的抽象行政行为,更不主张涵盖检察机关为规制公共行政所作之全部检察活动。根据《最高人民法院、最高人民检察院关于检察公益诉讼案件适用法律若干问题的解释》的规定,行政检察监督的重点范围包括生态环境和资源保护、食品药品安全、国有财产保护、国有土地使用权出让四大领域以及涉及公民人身、财产权利的违法行为和不作为。检察监督智能化可以通过大数据收集行政违法行为线索,并辅助作出提出检察建议与提起行政公益诉讼的决策。


针对上述行政检察监督的重点范围,行政违法线索智能化收集的主要途径包括:其一,检察机关在行政执法信息共享平台上发现线索。检察机关通过建立行政执法信息数据库,对执法主体、执法程序、执法行为、法律适用、办案期限、处罚依据以及处罚结果等信息进行碰撞、抓取、筛选、比对,并对线索信息进行打分排序,获得有价值的线索。具有代表性的地方实践是,吉林省检察机关建立大数据中心,已实时对接环保、国土、食品药品监督管理等40余个行政执法单位的信息,自动为检察官推送线索。其二,行政相对人通过智能化平台上报线索。如浙江省余姚市检察院开发了“掌上检察微公益”小程序,用户可以选择对应的五类公益诉讼案件类型,填写线索标题、涉案地点、详细内容,上报相关图片、音频、视频等。经调研发现,线索上报平台仍需进一步发展出违法地点自动定位、线索属性自动分流、大数据舆情自动分析等功能。


对于通过上述途径收集的线索,检察监督智能化平台可利用“聚合”与“可视化”技术,将相似线索按主体、时间、地点等维度聚合,以词云、饼图、柱状图等形式将其可视化展现,并生成分析报告。进而,检察监督智能化平台将针对线索分析报告进行自动化评估,自动区分违法严重程度,辅助检察机关作出是否进行相应处理如是否提出检察建议或提起行政公益诉讼的决策。检察机关对于轻微违法的行政行为和不作为,如行政执法程序存在瑕疵但未对行政相对人的合法权益造成实质性伤害的,可出具较为柔性、和缓的检察建议。检察机关对于情节较重的行政违法行为或不作为,可先提出检察建议,若行政机关在接到检察建议后仍不依法履行职责,国家利益或者社会公共利益处于受侵害状态的,检察机关应当依法提起行政公益诉讼。检察人员可以根据证据指引规则上传证据,检察监督智能化平台会结合线索分析报告、行政执法文书等智能生成简报,通过语义分析和文本重组技术辅助编写文书,一键导出证据支持开庭。


(二)立案侦查和刑罚执行的智能化审查


刑事诉讼检察监督正面临着重大转型,即从全方位的刑事诉讼监督转向审判前阶段和执行环节的诉讼监督,监督的重点集中在立案、侦查以及刑罚执行程序的合法性问题。在法庭审判过程中,检察机关通过提起公诉的方式,来督促法院作出正确的事实认定和法律适用。因此,智能化在刑事诉讼检察监督中的应用场景主要为立案侦查阶段的智能化监督与刑罚执行阶段的智能化监督。


刑事诉讼立案监督智能化的应用场景是,检察机关充分收集行政处罚数据,以及刑事案件的发案、报案、控告、立案、撤案等数据,并进行大数据的挖掘和分析,得出预测性结论,指引立案监督的重点和方向,使符合立案条件的案件进入诉讼程序,将不符合立案条件的案件排除出诉讼程序。湖北省检察院依托“两法衔接”信息共享平台开发了“三步筛查法”:一是设置刑事立案标准,从行政处罚信息中直接发现犯罪线索;二是设置刑事立案临近标准、严重情节等条件,找出疑似被降格处理的线索;三是设置处罚对象、物品、地点等关键信息条件,发现疑似被拆分处理的线索,以此解决有案不移、以罚代刑的问题。


侦查监督智能化的应用场景主要体现在以下方面:其一,检察监督智能化平台对侦查活动过程中的刑讯逼供以及其他违法收集证据的行为进行智能识别、智能预警,并作出排除非法证据的智能化决策。其二,检察监督智能化平台通过犯罪嫌疑人社会危险性指数模型、审查逮捕智能化辅助系统,作出是否批捕犯罪嫌疑人的智能化决策。在笔者参与研发的广州市南沙区检察院审查逮捕社会危险性量化评估系统中,检察人员只需将犯罪嫌疑人的人身危险性、社会危害性、诉讼可控性等指标分类输入到系统中,该系统通过特定算法即可输出是否应予逮捕的基准判断。


刑罚执行检察监督智能化的应用场景主要是监督减刑、作出假释决定,以及监外执行的情况。这些领域涉及刑罚执行机关对刑罚内容和执行方式所作的变更,会使国家刑罚权的统一行使受到威胁和挑战,需要检察机关重点监督。一是减刑、假释检察监督智能应用。2021年,最高人民法院与最高人民检察院、公安部、司法部联合发布的《关于加强减刑、假释案件实质化审理的意见》指出,要提高信息化运用水平,高度重视检察机关的法律监督。减刑、假释监督智能应用可依托法律知识图谱、法律语义分析技术等,提供从严特征智能判断、减刑假释条件智能审查、刑期智能计算等功能,辅助检察人员办案。二是刑罚执行场所和监外执行的检察监督智能应用。检察监督智能化平台通过建立数学分析和类案比对模型,对羁押必要性审查、刑罚变更执行、社区矫正、财产刑执行等业务进行大数据智能分析和评估,从而实现刑罚执行检察监督的智能辅助办案。如在社区矫正检察监督上,检察监督智能化平台通过海量数据比对,自动发现应收监人员、未及时进入社区矫正人员、未经批准外出人员,通过智能识别技术对监管活动进行目标识别与行为分析,从而使非正常执法行为智能监测机制得以建立。如在提审室监控点所设置的单人提审报警功能,当提审人员少于两名时,系统会进行抓拍,并以消息提醒的方式推送给检察人员。


(三)司法裁判的智能化类案监督


检察机关对生效判决提起抗诉,这是检察机关监督民事诉讼、行政诉讼与刑事诉讼的通用方式。尤其是对于民事和行政诉讼而言,检察监督主要通过再审抗诉的方式进行,是一种将重点放在确有错误的生效裁决上的事后监督。司法裁判检察监督的传统方式以个案监督为主,通过案卷审查寻找个案在事实认定、法律适用与程序遵守等方面的监督线索。而在司法裁判大数据被充分利用的情况下,检察监督不再局限于个案对错,而是通过类案监督的方式进行,重点关注类似案件的处理尺度是否统一。有实践数据显示,贵州省检察院利用大数据案件智能研判系统,对14100件故意伤害案件进行分析,发现其中存在要素偏离情况的有2332件,存在量刑偏离情况的有2395件。


司法裁判的类案监督与类案辅助判决一样,均是基于类案比对思维实现的,即通过使用相似案件的结果来评价目标案件的结果是否合理。一是基于无监督学习的案件特征选取。类案监督的监督依据是与目标案件类似的案件集,而衡量两个案件是否类似则需要对比案件特征,因此,类案监督系统先要对案件特征进行选取,即确定裁判文书中哪些因素是裁判的考量因素,如案件事实、法律法规以及隐藏在裁判文书背后的法官隐形的智慧和经验。二是通过相似性度量的类案获取。基本思路是依据案件知识图谱,类案监督系统通过自然语义识别技术从海量文书中提取情节,将每个案件结构化与标签化,再将具备相似情节的案件进行整合分类,形成不同维度的类案。三是运用偏差性度量的类案监督。案件偏差度的计算方法是,类案监督系统根据目标案件的特征寻找与其相似的若干案件作为检察案件集,根据目标案件的判决结果与案件集的判决结果平均值之间的关系计算偏差度。偏差度越大表示该案件的判决结果与正确结果的偏差越大,而偏差度越小则表示该案件的判决结果越接近正确结果。类案监督系统通过偏差度量化方法可以得出异常判决,但并不表示该判决一定为错误裁判,仍然需要检察人员对异常判决进行深入分析与研判,包括采取调阅卷宗材料、询问有关当事人和证人等方式进行调查取证。当该异常判决确实属于错误裁判时,检察机关可对其提出抗诉。


总而言之,检察监督是一项复杂的工程,而智能化监督采取了一种还原简化的逻辑。检察监督智能化应以行政违法行为的智能化线索挖掘、立案侦查和刑罚执行的智能化审查、司法裁判的智能化类案监督为主要应用场景,并明确划定其中的范畴边界,以此解决逾越司法机关分工界限的问题,也能有效避免检察人员对智能化的过分依赖。检察监督被转译为软件程序、算法并标准化的主要危险在于实际案件的复杂性可能被忽略,从而导致检察监督决策的不准确或不适当。在上述场景式监督中,检察机关可以借助智能化机制作出基础性的判定,但仍需进行以人之理性为基础的价值判断,重视执法司法者的自由裁量与个性特征,否则便会走向不受理性限制的“机械司法”。


四、检察监督智能化的技术正当程序规制


检察监督智能化是技术在检察监督程序中的推进与展开,作为智能化核心的算法也被视为“解决问题的进程”,因而,自带程序属性的检察监督智能化需要进行程序规制,以此解决算法运用的公正遮蔽问题。在不同语境中,正义如同有着一张普洛透斯似的脸,变幻无常,随时可呈现不同的形状。传统正当程序中的听取意见、说明理由、参与决策等权利保障措施,对于瞬间即作出决定的算法几乎无适用的余地。为此,丹尼尔·济慈在政府自动化决策的研究中提出了技术正当程序理论,并在关于开放式代码治理、预测算法评分、自动化行政国家合法性危机等的研究中将其进一步发展。综合这些研究可以发现,技术正当程序理论并未否定传统正当程序理论,而是强调中立、透明、参与、可问责等核心要素,意欲通过排除算法歧视、强化算法透明、提升程序参与性、建立问责机制等来解决智能化所带来的程序法治问题。检察监督智能化也需要汲取技术正当程序的客观规制技术,既强调智能化对监督者的赋能,也关注智能化对被监督者的赋权,以此来避免算法从检察监督规范中“逃逸”。


(一)中立性规制:算法歧视的防范与修正


检察监督算法歧视的排除,不能局限于歧视发生后的规制措施,还要重视算法歧视的常态化风险防范。其一,检察机关和研发企业应约束检察监督算法研发者的行为。由于研发者的主观意志将融入算法设计中,检察机关和研发企业为了消除算法偏见的危险,应建立对研发者的统一培训制度与监督机制,积极引导“技术道德”入脑入心,避免因研发者的区域性差异或主体意识偏差产生算法歧视。其二,检察监督算法设计应具有程序一致性。程序一致性是正当程序的核心理念,即检察机关一体适用检察监督规则,不能为某个被监督者适用不同的程序。具体而言,研发者应将以下考虑融入检察监督算法的初始设计,并采用技术手段保证其实现:每一项决策都运用相同的规则;在知道特定的监督对象之前,决策所依据的规则应当是明确、具体的;在相同的条件下,每项决策都是可重复、可再现的。其三,检察机关应建立检察监督算法备案审查制度。在检察监督算法投入应用前,检察机关需按照一定程序将算法的相关材料向最高人民检察院信息中心报送备案。对于未经备案即投入应用的算法或投入应用的算法与备案信息不一致的,检察机关应立即停止使用。


检察监督算法的研发者和使用者有责任识别算法中可能存在的偏见,如通过使用中性的程序代码检视数据是否含有对于特定群体已经形成的不利待遇,也应对算法的应用与决策始终保持审慎的态度,以确保算法偏见无法转变为算法歧视。然而,当算法歧视发生时,检察机关应建立检察监督算法歧视修正机制,给予受到算法歧视的被监督者申诉的机会,并针对算法歧视的结果进行核实与矫正,以达到实质公平的效果。


(二)透明性规制:算法公开与解释


根据传统正当程序理论,检察监督的透明性主要是指贯彻检务公开原则,公开检察监督的过程。在检察监督智能化中,透明性不仅包括程序公开,更重要的是检察监督算法的公开与解释。算法的特征是黑箱,但黑箱往往带有明显的人为属性,黑箱背后存在复杂的利益关系。在实践中,一些私营企业和国家机关常以保护商业秘密为由拒绝公开与解释算法,这使公民生命权、自由、公正等更重要的法益受到影响,这些更重要的法益在法律价值位阶上的优先保护性高于商业秘密。


针对检察监督算法黑箱问题,检察机关应首先考虑增强算法的公开性,但这并不意味着“一刀切”式的公开,应明确公开的原则、对象与范围。其一,检察监督算法应以公开为原则,并明确当算法的公开与国家安全、社会秩序等法益相冲突时,算法可以例外地不被公开。我们应认识到,算法公开是一种事前规制方式而不是终极目的,不能夸大其在规制中的效用。其二,检察监督算法公开的对象为被监督者,包括各执法司法机关和受检察监督影响的个人,这体现了执法司法机关之间相互制约监督的原则。需要进一步思考的问题是,检察监督算法是否应对社会公众公开。从司法理论上看,与公众获得的透明性相比,大多数法律制度更倾向于赋予诉讼参与者以更高的透明性。为了避免不法分子的“反向学习”,检察监督算法不应向社会公众披露,但仍需借助于独立、可信任的算法审计人员,使算法受到审查。其三,检察监督算法公开的内容如下:检察监督算法研发公司应公开算法知识、算法要素等,检察机关应公开监督过程是否运用算法,哪些算法在哪些监督环节被运用等。


算法公开至关重要,但也只能解决部分问题。当非专业人士面对公开的算法代码,或者专业人士面对极复杂的算法时,算法公开将形同虚设。关于提高检察监督算法透明度的另一个路径是,算法研发者尽可能对算法决策的过程和要素评判作出详细解释。算法模型(白箱模型或黑箱模型)的不同将导致算法解释方法的差异。一般来说,行政违法线索收集、立案侦查和刑罚执行场景下的检察监督算法主要是易于解释的白箱模型,如决策树、规则列表等;而司法裁判类案监督场景中的算法主要是可解释性较弱的黑箱模型,如深度神经网络、随机森林等,只能提供一个粗粒度的解释。但随着研究的深入,尝试改善神经网络可解释性的工作已在进行,主要途径是从神经网络中抽取易于理解的符号规则。


(三)参与性规制:全过程的算法参与


在事前参与层面,检察机关应建立算法影响评估制度。算法影响评估制度是一种程序性的评估机制,赋予了利益相关主体程序性保障和参与渠道,增加了算法决策的适当性。在检察监督算法影响评估制度中,执法司法机关可根据专家预判算法的负面影响,通过听证程序发表意见和参与讨论。可借鉴的是,美国的《算法问责法》要求公司对自动决策系统进行准确性、公正、偏见、歧视、隐私和安全方面的影响评估。在智能化的进程中,随着检察监督的场景化、精细化日益凸显,检察机关需要清晰区分行政违法行为监督、立案侦查和刑罚执行监督、司法裁判监督等不同算法应用场景的评估标准与规则,实施差异化评估。


在事中与事后参与层面,检察机关应赋予被监督者相应的程序性权利。一是算法解释申请权。当被监督者对检察监督算法不信任时,其有权向检察机关申请启动算法解释程序。若检察机关不启动上述程序,应将不启动算法解释程序的决定书和详细理由送达被监督者。二是数字程序参与权。执法司法机关可通过可视化、便捷化的操作流程,以及各个节点和时段的程序推进信息,实时跟踪检察监督的进展,以便更好地保障自身的合法权利。三是算法决策质疑权。算法决策同人类决策一样难以避免出错,为防止检察监督算法决策错误造成检察机关的公信力受损,检察机关应允许被监督者对检察监督算法决策提出质疑。从域外视角看,对欧盟《一般数据保护条例》第22条进行解释的“重述”明确规定,个体拥有对决定提出质疑的权利。


(四)问责性规制:算法责任的承担与追责


算法是人类与机器交互的决策,算法责任涉及人与机器的双重因素,因此,检察机关必须清楚划分相关主体的责任承担,即协调机器、技术专家与检察人员之间的责任关系。对于这一问题,我们需要区分不同检察监督算法类型中的责任承担规则。正如詹森和库克指出的,算法既可以执行简单计算,也可以执行高度复杂的推理任务。因而根据“自主度”水平,检察监督算法可以分为以下三种:一是纯粹执行型检察监督算法,即算法不自主作出决策,而是以代码的形式完全按照人的指令执行,如刑罚执行检察监督中的非正常接触预警和日常行为监测算法。纯粹执行型算法责任的承担主体是算法主体,即算法开发与设计者、部署与应用者等。二是辅助决策型检察监督算法,即算法不仅是人指令的执行者,且在一定范围内作为代理人成为自主决策者,如行政违法行为线索收集算法属于纯粹执行型,而进一步开展的行政检察监督决策算法则参与或者替代了检察人员作出部分决策。算法决策是人决策的延展,因此,算法主体仍是辅助决策型算法责任的承担主体,且算法部署与应用者通常应承担主要责任。三是独立决策型检察监督算法,即算法在决策中处于主导地位,其决策结果直接作用于被监督者。由于机器学习特别是深度学习的推动,司法裁判类案监督中的算法决策日益高度自动化。独立决策型算法责任的直接承担者是算法与算法主体组成的联合体,但由于算法嵌入了设计者和使用者的意图,且联合主体中的算法主体对算法具有较大影响,因此,最终责任主体仍是算法主体,而承担主要责任的是算法开发与设计者。总之,传统检察监督责任的承担遵循谁决策谁负责的原则,而在检察监督智能化下,部分决策虽由算法作出,但若其产生负面影响,则需要有相应的责任人负责,因此,检察监督算法责任的承担遵循谁设计谁负责和谁运用谁负责的原则。


在检察监督算法责任的追责机制中,算法开发与设计者、部署与应用者的责任承担,都应通过法律固化和具体化的方式增强其强制性与适用性。其一,在追责主体上,检察机关可以通过成立检察监督算法决策问责委员会,来受理被监督者的申诉,以此解决“谁来监督监督者”的问题。其二,检察机关应建立审计跟踪记录机制,运用区块链技术记录每一项检察监督算法决策的事实和规则,提供不可篡改的审计跟踪记录,帮助被监督者了解有关决策是如何作出的,方便被监督者行使申诉权。其三,检察监督算法责任的归责原则应是“过错推定”。当算法决策造成损害结果时,若检察人员不能证明损害结果是由算法开发与设计者造成的,应先承担责任,之后再根据实际情况向算法开发与设计者追责。


结 语


法学的使命不是盲目地称赞技术进步所带来的效益,应是要慎重审视技术发展存在的非理性之处。本文对检察监督智能化的正向展望与反向省思,并非“以己之矛攻己之盾”的逻辑游戏。数据和算法驱动下的智能化对检察监督的结构与制度产生重要影响,我们固然需要对此持有积极的立场,但越是如此,才更需要充分重视检察监督智能化的应用空间与适用规则,以期在技术赋能与技术赋权中寻找平衡。


因而,当检察监督智能化面对数据共享的实现困境、全程监督的潜在危机、算法运用的公正遮蔽时,需要在适用前提层面建构执法司法数据共享机制,在应用场景层面形成“场景式监督”,在技术制约层面实施技术正当程序规制措施。我们必须清楚地认识到,在弱人工智能向强人工智能演化的“奇点”是否出现尚不明确的情况下,人工智能的角色属性仍是“代理者角色”。检察监督智能化仍需要由人来担任最终决策者,因此,如何持续优化人机协同的检察监督模式和机制是需要长期思考的问题。


《法制与社会发展》2023年第2期目录摘要


点击二维码关注法制与社会发展微信公众平台

继续滑动看下一个
法制与社会发展
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存